Sau khi thi đỗ tiến sĩ, vua Lê Hy Tông bổ nhiệm Trương Công Giai vào làm việc ở cơ quan trung ương. Theo sách Lịch triều tạp kỷ lại ghi: Tháng 3 năm Đinh Hợi (1707) phong Tự khanh Trương Công Giai làm chức Công bộ Hữu thị lang. Tháng 3 năm Tân Mão (1711), Trương Công Giai giữ chức Phó đô Ngự sử. Năm Mậu Tuất (1718), tháng giêng mùa xuân mở khoa thi cử nhân, tri cống cử Đô Ngự sử Trương Công Giai nhập kỳ thi diên bồi tụng, Thượng trung thư giám cẩm Sơn Nam. Sau đó, ông được giữ chức Thượng trụ quốc Thượng trật tướng công. Tháng sáu năm Canh Tý (1720), ông được thăng tiến chức Thượng thư bộ Hình.[4]

Theo sử cũ, ông mất ngày mồng 8-2-1728 - năm Mậu Thân thọ 63 tuổi, thi hài được ướp quàn tại viện Thiên Thanh. Sau 100 ngày ông mất thì được đưa về quê cho dân làng và gia tộc kính viếng và 7 ngày sau mới đưa đi an táng tại lưng núi A Hồ.[5]